La revue scientifique Nature a décidé de bannir toute utilisation d'image ou vidéo créée à l'aide d'outils d'intelligence artificielle générative (en dehors d'articles portant spécifiquement sur l'IA, évidemment), explique-t-elle dans un édito publié la semaine dernière, « du moins dans un avenir prévisible ».
Cette décision a été prise après plusieurs mois de discussion suite aux sorties d'outils comme ChatGPT et Midjourney.
Les artistes, photographes, vidéastes et illustrateurs avec lesquels la revue collabore devront confirmer qu'ils n'ont utilisé aucun outil de ce genre. Une note précisant cet engagement a aussi été publié sur le site de la revue.
La revue explique que c'est « une question d'intégrité » : « En tant que chercheurs, rédacteurs et éditeurs, nous avons tous besoin de connaître les sources des données et des images, afin de pouvoir vérifier leur exactitude et leur véracité. Les outils d'IA générative existants ne permettent pas d'accéder à leurs sources pour que cette vérification puisse avoir lieu. », précise-t-elle.
La revue justifie cette décision aussi par le fait que ces outils ne citent pas leurs sources alors que c'est « un principe fondamental de la science et de l'art ». La revue évoque aussi le respect du droit à l'image ainsi que du droit d'auteur.
Pourtant, elle ne prend, à l’heure actuelle, pas en compte ces critères quand il s'agit de textes : « Pour l'instant, Nature autorise l'inclusion de textes produits avec l'aide de l'IA générative, à condition que cela se fasse avec des mises en garde appropriées ». L'édito précise quand même qu' « aucun outil LLM ne sera accepté en tant qu'auteur d'un article de recherche ».
![[Édito] Apple entre greenwashing et renouvellement à marche forcée](https://next.ink/wp-content/uploads/2024/09/Apple_greenwashing-510x247.webp "[Édito] Apple entre greenwashing et renouvellement à marche forcée")
Commentaires (19)
#1
Bizarre, je bloquerais plus le contenu texte que image, car comment citer des sources sur des images générées ?
*Spoiler: mon avatar est générée par une IA :o
#1.1
Il n’y a rien de bizarre: le principe d’une publication scientifique est de citer ses sources.
Cela est valable pour tout, y compris les images.
#1.2
Je veux dire c’est bizarre d’autoriser le texte et pas les images, car je ne pense pas qu’une IA générative d’image puisse citer des sources, alors que concernant le texte cela doit pouvoir être fait.
En gros ils disent: OK pour le texte si on dit que c’est généré par des IA, en revanche non pour les images alors qu’ils pourraient noter: image générée par une IA
#1.3
Je pense que tu inverses les propos de la brève.
Nature veut pouvoir sourcer les productions et, donc, aimerait éviter d’utiliser les images générées par IA, justement parce qu’elle ne peuvent pas être sourcées. Aussi l’usage d’IA génératrice de texte serait toléré car il serait possible de retrouver les sources utilisées par la production. Mais Nature ne prétend pas autoriser un texte généré uniquement par IA comme étant produit par un auteur ; à l’exception probable que ce texte a été révisé par un membre de la profession en tant qu’auteur.
En tout cas, c’est ce que j’en ai conclu.
#1.4
Merci, c’est ma pensée également, bien exprimée
#2
???
Un artiste qui cite ses sources ?
#2.1
Oui, voilà, ca rejoint ce que je pense: un artiste n’a pas de source quand il a créé l’image, il va pas citer toutes ses inspirations de création, ou s’il s’est calqué sur tel artiste pour représenter telle scène etc..
Pourquoi demander à une IA de citer “des sources” alors que l’image est complètement générée (même si elle a appris avec des banques de données, on peut comparer cela à de “l’inspiration”)
#2.2
En fait, je crois que la tournure de phrase n’est pas claire.
Dans la source de la brève, il est dit
Donc, il est question de pouvoir/devoir attribuer le média à une personne. Celle-ci doit pouvoir être citée en tant qu’auteur ou autrice. Il est vrai que dans la brève, on pourrait être amener à lire que l’art et la science doivent citer leur source. Alors que c’est la production de documentation qui doit citer leur source provenant de la science ou de l’art.
#2.3
Un ariste qui dessine une enzyme doit être capable de dire que sa source c’est encyclopédie x ou photo de labo y. Et pour les photographies aussi, sources = lieu, conditions météo, heures. Ce genre de choses pour comprendre le contexte. Sinom ça revient à dire qu’on se base sur des banques d’images dont le problème est vastement discuté et pour l’instant insoluble, exemple sur l’autre brève : https://www.nextinpact.com/lebrief/71881/les-modeles-dia-generatifs-renforcent-biais-humains
#3
Donc on ne peut pas utiliser non plus des travaux communautaires ou opensource, puisqu’ils sont non-attribuables par définition ?
#3.1
Si, il y a toujours une personne ou un groupe de personnes qui a produit un travail (communautaire ou open source, source fermée, avec copyright ou non). Ce sont malgré tout des auteurs. Et Nature, dans la bonne démarche de ses productions, et s’il en a été fait usage, devrait citer la source de ce travail. Tout en n’omettant pas les restrictions ou obligations liés à l’usage de ce travail. Et, si par heur, ce travail ne peut pas être attribué, libre à Nature de l’utiliser malgré tout et de signaler que celui-ci n’a pas pu être attribué - tout en laissant la possibilité au propriétaire intellectuel de se faire connaître.
#4
#5
Je comprend qu’on doit indiquer la source de l’image pour ne pas induire le lecteur en erreur.
Par exemple en indiquant “source: stable-diffusion (IA generated)”.
Mais je ne vois pas en quoi on s’interdit de dire que la source c’est “stable-diffusion” au motif qu’on ne peut pas citer explicitement chaque source de la base d’apprentissage qui a été utilisée par stable-diffusion pour une image en particulier.
#5.1
Je pense que si c’était une simple image d’illustration, il n’y aurait aucun soucis de faire comme tu dis. Cependant, si c’est une photo, image sur laquelle on base une thèse, étude ou quoi que ce soit qui nécessite une certaine rigueur et des faits. C’est une peu plus délicat. Et, je pense que Nature, du fait de son orientation scientifique, se refuse à utiliser des images provenant d’IA car celles-ci ne peuvent pas être une garantie d’information pouvant corroborer la production des dossiers.
#6
Au contraire, dans ce cas, copyright et licence d’utilisation sont très clairs.
#7
Si qqn fait une thèse basée sur une image générée par IA, il y a fort à parier que c’est pour étudier spécifiquement le domaine de l’IA. Et c’est autorisé d’après la news : “… en dehors d’articles portant spécifiquement sur l’IA,”
Je doute que quelqu’un écrive une thèse basée sur une image générée par IA pour traiter d’un domaine qui n’est pas en lien avec l’IA. Déjà parce que, à part l’image elle-même, le rédacteur n’aura pas d’autres informations/données pour étayer sa thèse.
#7.1
J’espère de tout coeur que personne n’utilisera une image générée par IA dans ce cas de figure. Cependant, l’être humain est ce qu’il est et n’est pas parfait. Il est préférable pour la revue de poser les jalons avant qu’on soit tenté d’aller à la facilité.
Et puis pensons à l’effet rebond. Utiliser une autre source documentaire basée sur une tierce qui contient un contenu basé sur l’usage d’images générées par IA. Imaginons des imageries médicales afin de définir des thèses sur le développement de certaines maladies. Je ne pense pas que Nature veuille qu’on ternisse son image si quelqu’un utiliserait ces informations non vérifiées dans un des écrits qu’ils éditeront.
Je suis très réducteur, je le conçois. J’imagine tout de même qu’il y a un contrôle avant publication et pendant l’écriture. Mais je crois que Nature juge préférable de faire du “damage control” face l’émergence du questionnement bouillonnant vis-à-vis de l’usage de l’IA.
#8
Pour moi tu cites les paramètres ayant permis de générer l’image. C’est ce que font les sites communautaires comme Civitai.
Fournir le prompt + modèle + les LoRA utilisés + les négatifs + le CFG + la seed, et on a la là source de l’image. Ces infos sont généralement inscrites dans le PNG d’ailleurs, mais hélas souvent supprimées.
#9
Intelligence artificielle : On vous raconte l’histoire de cette fausse photo d’Arthur Rimbaud qui suscite l’émoi (20mn, 15/06/23)